آموزش امنیت هوش مصنوعی در طراحی - چارچوب‌های GenAI و سیستم‌های عامل (Agentic Systems) [ویدئویی] - آخرین آپدیت

سرفصل ها و درس ها

بخش اول: مقدمه‌ای بر امنیت هوش مصنوعی Part 1 Introduction to AI Security

• مقدمه Introduction

• وضعیت پذیرش هوش مصنوعی The State of AI Adoption

• استاندارد OWASP LLMSecOps OWASP LLMSecOps

• راهنمایی‌های NIST Guidance from NIST

• هسته اصلی AI RMF The AI RMF Core

• کتابچه راهنمای AI RMF The AI RMF Playbook

• چارچوب MITRE ATLAS MITRE ATLAS

• پروفایل چارچوب امنیت سایبری NIST برای هوش مصنوعی NIST Cybersecurity Framework Profile for AI

• از دوگانگی تا نظم و انضباط From Duality to Discipline

• رگولاتوری جهانی AI و طبقه‌بندی ریسک اتحادیه اروپا Global AI Regulation and EU Risk Classification

بخش دوم: چشم‌انداز ریسک‌های هوش مصنوعی Part 2: The AI Risk Landscape

• طبقه‌بندی ریسک‌های هوش مصنوعی AI Risk Taxonomy

• طبقه‌بندی ریسک‌های هوش مصنوعی (بخش دوم) AI Risk Taxonomy - Part 2

• ده ریسک برتر OWASP برای LLM و GenAI The OWASP Top 10 for LLM and GenAI

• امنیت برنامه‌های عامل‌محور (Agentic App) Agentic App Security

• ده ریسک برتر OWASP برای برنامه‌های عامل‌محور (ASI) OWASP Top 10 for Agentic Applications (ASI)

بخش سوم: حاکمیت و انطباق Part 3: Governance and Compliance

• حاکمیت امنیت هوش مصنوعی AI Security Governance

• موجودی دارایی‌های AI و پیشگیری از Shadow AI AI Asset Inventory and Shadow AI Prevention

• انطباق رگولاتوری برای هوش مصنوعی Regulatory Compliance for AI

• نقشه‌برداری انطباق: از کنترل‌ها تا مقررات Compliance Mapping: Controls to Regulations

• مستندسازی مدل و شفافیت Model Documentation and Transparency

• لیست مواد تشکیل‌دهنده هوش مصنوعی (AI BOM) AI Bill of Material

بخش چهارم: توسعه و عملیات امن Part 4: Secure Development and Operations

• چرخه حیات LLMSecOps The LLMSecOps Lifecycle

• نمای بصری LLMSecOps LLMSecOps Visual

• امنیت داده‌های هوش مصنوعی AI Data Security

• امنیت مدل‌های هوش مصنوعی AI Model Security

• هوش تهدید در AI AI Threat Intelligence

• راهنمای تیم قرمز (Red Team) در AI AI Red Team Guidance

• سیستم امتیازدهی آسیب‌پذیری‌های AI AI Vulnerability Scoring System

• متریک‌های امنیتی هوش مصنوعی AI Security Metrics

• شاخص‌های کلیدی عملکرد (KPI) امنیت AI AI Security KPIs